Con đường này trước năm 1984 được gọi là Xa lộ Biên Hòa, khởi công vào tháng 7 năm 1957 thời Đệ Nhất Cộng hòa đến Tháng Tư năm 1961 thì hoàn tất với chiều dài 31 cây số. Kinh phí xây cất do Mỹ viện trợ. Xa lộ được thiết kế ngăn hai chiều đi về. Mỗi chiều có hai lối đi. Trên xa lộ này có hai cây cầu lớn bắc ngang là cầu Sài Gòn (dài 982 m) bắc qua sông Sài Gòn và cầu Đồng Nai (dài 453 m) bắc qua sông Đồng Nai.[1]

Ngày 10 tháng 10 năm 1984, Xa lộ Biên Hòa được đổi tên thành xa lộ Hà Nội nhân dịp kỷ niệm 30 năm giải phóng Thủ đô Hà Nội. Một tên khác của con đường này là quốc lộ 52, thường được dùng để chỉ đoạn từ chân cầu Sài Gòn đến chỗ giao nhau với quốc lộ 1A tại ngã ba Thủ Đức (ngã ba Trạm 2). Hiện nay trên xa lộ Hà Nội có một đoạn quốc lộ 1A đi qua, bắt đầu từ ngã ba Thủ Đức đến ngã ba Hố Nai hay còn gọi là ngã ba Chợ Sặt vì chợ Sặt thành phố Biên Hòa nằm gần ngã ba này, ngã ba Công viên 30 tháng 4, (giao với quốc lộ 1K, vượt quá ngã tư Tam Hiệp).

Với tình hình kinh tế Thành phố Hồ Chí Minh và các vùng ngày càng phát triển dẫn đến tình trạng quá tải Xa lộ Hà Nội trong những năm gần đây, do đó Xa lộ Hà Nội sẽ được mở rộng lên đến 140 m, dự án đã được bắt đầu triển khai từ năm 2009 cùng với dự án mở rộng Quốc lộ 51.

Năm 2018, TPHCM đã hoàn thành mở rộng gần hết tất cả các đoạn, bao gồm cả đường mở rộng - song hành Xa lộ Hà Nội. Tổng số làn hiện tại là 16 làn, rộng 142m (đoạn qua Quận 2). Hiện còn một số đoạn cần mở rộng và nút giao vẫn đang được CII thi công.